如何使用 Project Health Insights 容器

您所在的位置:网站首页 docker 启动多个容器 如何使用 Project Health Insights 容器

如何使用 Project Health Insights 容器

2023-06-08 00:42| 来源: 网络整理| 查看: 265

你当前正在访问 Microsoft Azure Global Edition 技术文档网站。 如果需要访问由世纪互联运营的 Microsoft Azure 中国技术文档网站,请访问 https://docs.azure.cn。

使用 Project Health Insights 容器 项目 06/02/2023

这些服务使你能够在自己的基础结构上托管 Project Health Insights API。 如果存在无法通过远程调用 Project Health Insights 来满足的安全或数据管理要求,则本地 Project Health Insights 服务可能是一个很好的解决方案。

先决条件

在使用 Project Health Insights 容器之前,必须满足以下先决条件。

如果没有 Azure 订阅,请在开始之前创建一个免费帐户。

在主机上安装 Docker。 必须将 Docker 配置为允许容器连接 Azure 并向其发送账单数据。

在 Windows 上,还必须将 Docker 配置为支持 Linux 容器。 应基本了解 Docker 概念。

Health Insights 资源

主机要求和建议

在本地运行 Docker 容器的主机应该是基于 x64 的计算机。 它还可以是 Azure 中的 Docker 托管服务,例如:

Azure Kubernetes 服务。 Azure 容器实例。 部署到 Azure Stack 的 Kubernetes 群集。 有关详细信息,请参阅将 Kubernetes 部署到 Azure Stack。

下表介绍了不同 Health Insights 容器的最低规格和建议规范。

建模 最小 CPU 最大 CPU 最小内存 最大内存 试验匹配程序 4000m 4000m 5G 7G OncoPhenotype 4000m 8000m 2G 12G

CPU 核心和内存对应于 --cpus 和 --memory 设置,用作 docker run 命令的一部分。

使用 获取容器映像 docker pull

可以在容器注册表联合中找到 mcr.microsoft.com Project Health Insights 容器映像。 它们驻留在存储库中 azure-cognitive-services/health-insights/ ,可以通过其模型名称找到。

临床试验匹配器:完全限定的容器映像名称为 mcr.microsoft.com/azure-cognitive-services/health-insights/clinical-matching Onco-Phenotype:完全限定的容器映像名称为 mcr.microsoft.com/azure-cognitive-services/health-insights/cancer-profiling

要使用最新版本的容器,可以使用 latest 标记。 可以通过 和 https://mcr.microsoft.com/v2/azure-cognitive-services/health-insights/cancer-profiling/tags/list在 MCR https://mcr.microsoft.com/v2/azure-cognitive-services/health-insights/clinical-matching/tags/list 上找到标记的完整列表。

使用 docker pull 命令从 Microsoft 公共容器注册表下载此容器映像。 可以在 dockerhub 临床匹配页和 dockerhub 癌症分析页面上找到特色标记 docker pull mcr.microsoft.com/azure-cognitive-services/health-insights/: 对于临床试验匹配器,请使用 docker pull 命令从 Microsoft 公共容器注册表下载文本分析医疗保健容器映像。 可以在 dockerhub 上找到精选标记 docker pull mcr.microsoft.com/azure-cognitive-services/textanalytics/healthcare:

提示

可以使用 docker images 命令列出下载的容器映像。 例如,以下命令以表格列出每个下载的容器映像的 ID、存储库和标记:

docker images --format "table {{.ID}}\t{{.Repository}}\t{{.Tag}}" IMAGE ID REPOSITORY TAG 通过 docker run 运行容器

一旦容器位于主机上,请使用 docker run 命令运行容器。 容器将继续运行,直到你停止它。容器-

重要

以下各节中的 docker 命令使用反斜杠 \ 作为行继续符。 根据主机操作系统的要求替换或删除字符。 必须指定 Eula、Billing 和 ApiKey 选项运行容器;否则,该容器不会启动。 有关详细信息,请参阅计费。 负责任的 AI 确认RAI_Terms 也必须提供值为 accept。

可通过多种方式安装和运行 Project Health Insights 容器。

使用 Azure 门户创建 Project Health Insights 资源,并使用 Docker 获取容器。 使用带有 Docker 的 Azure VM 运行容器。 使用 PowerShell 和 Azure CLI 脚本自动执行资源部署和容器配置。

使用 Project Health Insights 容器时,API 请求和响应中包含的数据对 Microsoft 不可见,并且不用于训练应用于数据的模型。

在本地运行容器

重要

docker run 命令只能用于癌症分析模型,若要使用临床匹配模型,应使用 docker compose 命令。 请参阅示例 Docker compose 文件。

若要在下载容器映像后在自己的环境中运行容器,请执行以下 docker run 命令。 将下面的占位符替换为你自己的值:

占位符 Value 格式或示例 {API_KEY} Health Insights 资源的密钥。 可以在 Azure 门户中资源的“密钥和终结点”页上找到此项。 xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx {ENDPOINT_URI} 用于访问 API 的终结点。 可以在 Azure 门户中资源的“密钥和终结点”页上找到此项。 https://.cognitiveservices.azure.com docker run --rm -it -p 5000:5000 --cpus 6 --memory 12g \ mcr.microsoft.com/azure-cognitive-services/health-insights/: \ Eula=accept \ rai_terms=accept \ Billing={ENDPOINT_URI} \ ApiKey={API_KEY}

对于临床试验,请添加此值:TrialMatcher__TA4HConfiguration__Host = https://:5000

此命令:

从容器映像运行 Project Health Insights 容器 分配 6 个 CPU 核心和 12 千兆字节 (GB) 内存 公开 TCP 端口 5000,并为容器分配伪 TTY 接受最终用户许可协议 (EULA) 和负责任 AI (RAI) 条款 退出后自动删除容器。 容器映像在主计算机上仍然可用。 将查询提交到容器

使用示例cURL请求作为参考,将查询提交到已部署的容器,并将 serverURL 变量替换为相应的值。

curl -X POST 'http://:5000/health-insights//' --header 'Content-Type: application/json' --header 'accept: application/json' --data-binary @example.json 示例 docker compose 文件

以下示例演示如何创建 docker compose 文件来部署 health-insights 容器。

version: "3" services: azure-cognitive-service-health-insights-clinical-matching: container_name: azure-cognitive-service-health-insights-clinical-matching image: {TRIAL_MATCHER_IMAGE_ID} environment: - EULA=accept - RAI_TERMS=accept - billing={AHI_ENDPOINT_URI} - ApiKey={AHI_API_KEY} - TrialMatcher__TA4HConfiguration__Host={http://:5000} ports: - 5000:5000/tcp networks: - hivnet azure-cognitive-service-ta4h: container_name: azure-cognitive-service-ta4h image: {TA4H_IMAGE_ID} environment: - EULA=accept - RAI_TERMS=accept - billing={TA4H_ENDPOINT_URI} - ApiKey={TA4H_API_KEY} networks: - hivnet networks: ds4hvnet: driver: bridge

若要启动此 Docker compose 文件,请在文件根级别从控制台中执行以下命令:

docker-compose up 在同一主机上运行多个容器

若要使用公开端口运行多个容器,请确保在运行每个容器时使用不同的公开端口。 例如,在端口 5000 上运行第一个容器,在端口 5001 上运行第二个容器。

可以在 HOST 上同时运行此容器和其他 Project Health Insights 容器。 还可以运行同一 Project Health Insights 容器的多个容器。

查询容器的预测终结点

容器提供了基于 REST 的查询预测终结点 API。

为容器 API 使用主机 http://localhost:5000。

验证容器是否正在运行

有几种方法可用于验证容器是否正在运行。 找到相关容器的外部 IP 地址和公开端口,并打开你常用的 Web 浏览器。 使用以下各种请求 URL 验证容器是否正在运行。 此处列出的示例请求 URL 是 http://localhost:5000,但是你的特定容器可能会有所不同。 请确保依赖容器的外部 IP 地址和公开端口。

请求 URL 用途 http://localhost:5000/ 容器提供主页。 http://localhost:5000/ready 使用 GET 对此 URL 进行请求,可以验证容器是否已准备好接受针对模型的查询。 此请求可用于 Kubernetes 运行情况和就绪情况探测。 http://localhost:5000/status 同样使用 GET 对此 URL 进行请求,可以验证用于启动容器的 api-key 是否有效,而不会导致终结点查询。 此请求可用于 Kubernetes 运行情况和就绪情况探测。 停止容器

若要关闭容器,请在运行容器的命令行环境中,选择 Ctrl+C。

疑难解答

如果运行启用了输出装载和日志记录的容器,该容器将生成日志文件。 日志文件有助于排查启动或运行容器时出现的问题。

计费

Project Health Insights 容器使用 Azure 帐户上的 语言 资源将计费信息发送到 Azure。

对该容器的查询在用于 ApiKey 参数的 Azure 资源的定价层计费。

Project Health Insights 容器在未连接到计量或计费终结点的情况下无法运行。 必须允许容器始终与计费终结点通信计费信息。 Project Health Insights 容器不会将客户数据(如正在分析的图像或文本)发送给 Microsoft。

连接到 Azure

容器需要计费参数值才能运行。 这些值使容器可以连接到计费终结点。 容器大约每 10 到 15 分钟报告一次使用情况。 如果容器未在允许的时间范围内连接到 Azure,容器将继续运行,但不会为查询提供服务,直到计费终结点恢复。 尝试连接按 10 到 15 分钟的相同时间间隔进行 10 次。 如果无法在 10 次尝试内连接到计费终结点,容器会停止处理请求。

计费参数

当以下三个选项都提供有效值时, docker run 命令将启动容器:

选项 说明 ApiKey 用于跟踪计费信息的 Project Health Insights 资源的 API 密钥。必须将此选项的值设置为 Billing 中指定的已预配资源的 API 密钥。 Billing 用于跟踪计费信息的 Project Health Insights 资源的终结点。必须将此选项的值设置为已预配的 Azure 资源的终结点 URI。 Eula 表示已接受容器的许可条款。此选项的值必须设置为 accept。 总结

本文介绍了下载、安装和运行 Project Health Insights 容器的概念和工作流。 综上所述:

Project Health Insights 提供适用于 Docker 的 Linux 容器 从 Microsoft 容器注册表 (MCR) 下载容器映像。 容器映像在 Docker 中运行。 可以通过指定容器的主机 URI,使用 REST API 或 SDK 调用 Project Health Insights 容器中的操作。 必须在实例化容器时指定账单信息。

重要

Project Health Insights 容器在未连接到 Azure 进行计量的情况下,无法运行。 客户需要始终让容器向计量服务传送账单信息。 Project Health Insights 容器不会向 Microsoft 发送客户数据 (例如正在分析) 的文本。

后续步骤 请参阅配置容器了解配置设置。


【本文地址】


今日新闻


推荐新闻


CopyRight 2018-2019 办公设备维修网 版权所有 豫ICP备15022753号-3